DualEvolve：推荐系统机制与编排的双层级自演化
🧭 LLM Agent 自进化推荐 · 双层优化 ★ 深度解读
Independent Researcher · Meituan
同时演化推荐模型代码和 Agent 编排，用过程质量反馈与 Thompson 采样在 64 个比较中全部优于现有自演化方法
📌 工作参考价值（4 点）
- 将「任务指标」和「过程质量」分离：模型晋升只依赖固定验证分数和噪声/成本门控，Agent 编排更新只看过程质量（决策质量、实验严谨性、分析深度、新颖性），避免只追最终分数导致的过拟合或错误方向。
- 推荐模型 AutoML 或 LLM 自动调参中，采用两档 fidelity screening：低预算粗筛候选，高预算再验证，配合 noise floor 和 cost coefficient 决定是否晋升，能明显降低 full-budget 训练次数。
- 外层编排动作选择用 Thompson sampling 从 KEEP / EDIT HARNESS / EDIT SKILL 中采样，下一轮过程 reward 残差更新后验；比确定性 argmax 更能保持探索，实现简单、可复用。
- 把任务特定经验（inside wiki）与外部论文先验（outside wiki）解耦，迁移时只搬 evolved harness/skill rules，不搬原始日志，便于跨业务/数据集复用；同时固定评估器和晋升规则，防止 LLM agent 搜索时篡改评估逻辑或利用捷径。
DocMemo：面向多模态长文档理解的概率记忆引导动态证据检索
🧭 多模态文档理解 · 动态证据检索与记忆
Harbin Institute of Technology, Shenzhen · Tsinghua Shenzhen International Graduate School, Tsinghua University
提出三层记忆状态与贝叶斯页信念更新机制，将长文档推理建模为动态证据探索过程
📌 工作参考价值（4 点）
- Agent 记忆机制设计：三层记忆（结构模式记忆、页信念记忆、问题情景记忆）可借鉴用于多轮对话推荐系统中，管理用户状态、商品上下文与推理轨迹，解决长对话场景下兴趣漂移与证据跟踪问题。
- 不确定性驱动的探索：汤普森采样与贝叶斯页信念更新提供了一种平衡探索与利用的范式，可迁移至推荐系统的冷启动或动态兴趣建模，例如在新商品或新用户场景下自适应调整曝光策略。
- 结构感知的自适应粒度检索：根据文档结构（目录、节标题）动态选择检索粒度（整页、段落、视觉区域），对应电商场景中商品详情页的结构化信息（标题、图文、参数表）的分层次检索，提升证据定位效率。
- 空间邻近传播：利用相邻页面的相关性平滑信念，可启发推荐系统中基于会话内邻近商品或协同过滤的置信传播，增强对强相关 item 的召回。
PACE：基于原语的代码进化实现自动算法设计
🧭 LLM驱动的自动算法设计 · 代码进化
Southern University of Science and Technology · Shenzhen University
将算法局部逻辑解耦为可执行原语，通过原语感知进化和汤普森采样实现代码级复用与有效评估
📌 工作参考价值（4 点）
- 推荐策略部件化与进化复用：将推荐系统中的排序规则、特征交叉方式、后处理逻辑等代码抽象为可执行原语（EAP），通过类似PACE的原语感知算子进行变异与交叉，自动进化更优策略组合，同时保留历史有效片段，避免重新探索。
- 基于Thompson采样的无额外数据评估：对推荐算法迭代中的局部改进，可利用父代相对提升作为奖励信号，通过Thompson采样选择高潜力原语，无需预留大量评估流量，指导在线更新时更具样本效率。
- 防止LLM生成代码的退化迭代：在使用LLM进行推荐模型或Agent逻辑自动优化时，借鉴PACE将关键子模块显式物化为原语集合，并以结构性约束保留它们，可缓解完全重新生成带来的性能波动与有用片段的丢失。
- 跨任务策略迁移的启发：构建跨场景（如不同广告位、国家站）的通用原语池，利用PACE的迁移机制，可快速将已验证的调整策略适配到新场景，降低冷启动人力成本。
利用LLM导出先验的冷启动评论推荐Thompson采样
🧭 LLM辅助Bandit冷启动 · 分段Thompson采样 ★ 深度解读
NAVER WEBTOON
将评论文本的LLM语义信号转为Beta先验，使分段Thompson采样在稀疏反馈下CTR提升可达9.5%
📌 工作参考价值（4 点）
- 文本丰富的推荐场景（如评论、用户文案）可离线用LLM批量生成先验得分，以Beta伪计数注入Thompson采样，解决新物品冷启动；伪展现量参数κ可设为流量P75附近以平衡先验与在线数据。
- 按人口统计或用户群组维护独立后验（分段Thompson采样），既能利用群体差异又避免单个用户数据碎片化，可迁移到地域、活跃度等常用分段。
- 先验设计采用基础分+调整项的加法结构，把通用吸引力与特定信号解耦，便于调试、分析不同信号贡献，电商中可类似拆解价格偏好、品类亲和等调整项。
- 工程上将昂贵的LLM推理离线每日执行，在线仅聚合印环和点击更新Beta后验，实现低延迟服务与语义先验的分离，适合生产环境集成。
RecHarness：基于Bandit路由与LLM代理的推荐模型自进化框架
🧭 Bandit路由+LLM生成·推荐模型自动迭代 ★ 深度解读
Georgia Institute of Technology · Kuaishou Technology
用Thompson采样选择编辑方向，LLM负责具体代码修改，在有限预算下稳定优化推荐模型
📌 工作参考价值（4 点）
- 分离方向决策与代码生成：把“试什么方向”交给Bandit（基于历史成功/失败后验），把“怎么改代码”交给LLM，避免LLM在巨大搜索空间内盲目发散。推荐系统工程师可借鉴此架构，用简单统计路由控制尝试领域（架构、损失、特征），用LLM执行具体编辑。
- Jump-Basin机制跳出局部最优：当近期提升速率低于阈值时，自动开放结构跳跃臂（如更换序列编码器）。线上A/B显示，这一机制在短期局部精调无收益后自动激活，产出了可部署的结构改进。在广告排序或CTR模型迭代中，可设置类似机制自动触发大改。
- 实验技能（Experiment Skill）作为文本记忆：动态总结成功编辑、失败原因和趋势，形成紧凑的文本上下文注入LLM提示，避免模型重复犯错。可直接迁移到工业Agent中，用于维护试验记录、提炼可复用策略。
- 有限试验预算下的高效分配：Thompson采样在每一轮集中分配试验给高潜力臂，使47.92%的非基线试验刷新了best-so-far分数（随机分配仅22.45%）。在电商搜索/推荐中，当单次全量训练和评估成本高时，此路由可显著提高试验效率。
分布近似最近邻搜索：面向不确定性感知的检索
🧭 推荐系统 · 向量检索与探索 ★ 深度解读
aampe · Antwerp, Belgium
在 ANN 索引中为每个物品采样多个嵌入副本，用不确定性隐式驱动检索阶段的探索，大幅提升长尾覆盖
📌 工作参考价值（4 点）
- 直接在 Faiss 等现有 ANN 索引上实现：每个物品预先采样多个嵌入加入索引，查询时也采样用户嵌入并检索去重，无需修改模型或索引后端，即可将嵌入不确定性转换为长尾物品的曝光机会。
- 自适应采样预算：对冷门、高不确定性的物品分配更多样本（如 S=2~10），头部物品保持单样本，可有效控制索引膨胀，同时将探索算力集中在需要曝光的尾部。
- 用交互计数简单构造“合成后验”：令 σ_i ∝ 1/(1+n_i)^γ，以此从点估计中生成模拟贝叶斯不确定性的噪声样本，低成本实现类似汤普森采样的检索阶段探索。
- 将精确度损失交由下游排序模型吸收：候选生成阶段允许少量 top-K 精度下降，换取覆盖率的数倍提升，后续排序器可以利用丰富特征对新增的探索候选重排，整体 pipeline 收益明显。
公共媒体多目标决策的上下文标量化汤普森采样
🧭 上下文多目标Bandit · 动态权重学习
Radio Télévision Suisse · EPFL
提出上下文多目标Bandit方法CSTS，根据情境动态学习目标权重，提升推荐与专家实践匹配度
📌 工作参考价值（4 点）
- 多目标动态权重学习：电商推荐中常需平衡点击、转化、GMV、多样性等指标，固定权重难以适应不同用户群或场景。CSTS将标量化权重建模为上下文的函数，可借鉴此思路用上下文特征（用户画像、时段、活动类型）动态调整目标偏好。
- 模仿专家决策：从历史专家策划数据中学习权重模式，适合需要自动化人工决策的场景，如运营选品、活动排期。可提取领域专家标注的目标权衡逻辑，减少人工调参。
- 汤普森采样探索：在在线学习中利用汤普森采样进行高效探索，适用于多臂老虎机场景的冷启动或策略迭代，比如Agent协作中的动作选择、流量分配等需要探索的多目标优化。
- 业务可迁移性有限：方法验证于公共媒体节目推荐，缺乏大规模电商场景实验，但核心思路（上下文驱动标量化 + Bandit探索）可作为多目标在线学习的组件集成到现有推荐框架中。